![]() 複数のデバイス上の複数のマイクロフォンを用いた音声強調
专利摘要:
信号処理の解決法は異なるデバイス上に位置するマイクロフォンを利用し、通信システムにおける送信音声信号の質を向上する。Bluetoothヘッドセットや有線ヘッドセット等のような様々なデバイスを、モバイル・ハンドセットと連携して使用することによって、異なるデバイス上に位置する複数のマイクロフォンが通信システムにおける性能および/あるいは音声の質を向上するために活用される。オーディオ信号は、異なるデバイス上のマイクロフォンによって記録され、向上された音声の質、背景雑音の削減、音声アクティビティ検出等といった様々な利点を生むために処理される。 公开号:JP2011515897A 申请号:JP2010546966 申请日:2009-03-18 公开日:2011-05-19 发明作者:ラマクリシュナン、ディネッシュ;ワン、ソン 申请人:クゥアルコム・インコーポレイテッドQualcomm Incorporated; IPC主号:H04R3-00
专利说明:
[0001] 本特許出願は2008年3月18日に提出された” Speech Enhancement Using Multiple Microphones on Multiple Devices”と題された米国特許仮出願61/037,461号に対する優先権を主張する。上記出願は本願の譲受人に譲渡される。] 技術分野 [0002] 本開示は一般に、通信システムにおける音声の質を向上するために使用される信号処理の解決法における分野、特に音声通信の質を向上するために複数のマイクロフォンを活用する技術に関する。] 背景技術 [0003] モバイル通信システムにおいて、送信音声の質はユーザによって経験される総合的なサービスの質において重要な要素である。ここ最近、いくつかのモバイル通信デバイス(MCD)は、送信音声の質を向上するために、MCD内に複数のマイクロフォンを含んでいる。これらのMCDにおいて、複数のマイクロフォンからのオーディオ情報を活用する進歩的な信号処理技術は、音声の質を強化したり、背景雑音を抑制するために使用される。しかしながら、これらの解決法は一般に、複数のマイクロフォンが全て同じMCD上に位置している必要がある。複数マイクロフォンMCDの既知の例は、2つ以上のマイクロフォンを伴うセルラ電話ハンドセット、及び2つのマイクロフォンを伴うBluetooth(登録商標)無線ヘッドセットを含む。] [0004] MCD上のマイクロフォンによって捕らえられる音声信号は、背景雑音、反響などのような環境影響にとても影響を受けやすい。単一のマイクロフォンのみを装備するMCDは、騒がしい環境、すなわち、入力音声信号の信号対雑音比(SNR)が低い環境、において使用される場合に、粗悪な音声の質に悩むこととなる。騒がしい環境における操作性を向上するために、複数マイクロフォンMCDが導入された。たとえ都合の悪い(とても騒がしい)環境においてでも、複数マイクロフォンMCDは、音声の質を向上するために、マイクロフォンのアレイによって捕らえられたオーディオを処理する。既知の複数マイクロフォン解決法は、MCD上に位置する異なるマイクロフォンによって捕らえられたオーディオを活用することによって音声の質を向上するために、特定のディジタル信号処理技術を用いている。] [0005] 既知の複数マイクロフォンMCDは、全てのマイクロフォンがMCD上に位置している必要がある。マイクロフォンが全て同じデバイス上に位置しているため、既知の複数マイクロフォン・オーディオ処理技術とそれらの効果は、MCD内のマイクロフォンの間の比較的制限された空間分離によって左右される。ゆえに、モバイル・デバイスにおいて使用される複数マイクロフォン技術の効果及びロバストを強めるための方法を見つけ出すことが望まれる。] [0006] これを考慮して、本開示はモバイル通信システムの音声の質を向上するために複数のマイクロフォンによって記録された信号を活用するメカニズムに関する。ここでは、マイクロフォンのいくつかはMCD以外の異なるデバイス上に位置している。例えば、1つのデバイスはMCDであり、もう一方のデバイスはMCDと通信する無線/有線のデバイスでありうる。異なるデバイス上のマイクロフォンによって捕らえられるオーディオは、様々な方式によって処理されうる。本開示において、いくつかの例が提供されている。まず、異なるデバイス上の複数のマイクロフォンが音声アクティビティ検出(VAD)を向上するために活用されうる。更に、ビームフォーミング、ブラインド音源分離、空間ダイバーシティ受信スキームなどのような音源分離法を使用する音声強化を実行するために、複数のマイクロフォンが活用されうる。] [0007] 1つの態様によると、通信システムにおいてオーディオ信号を処理する方法は、無線モバイル・デバイス上に位置している第1のマイクロフォンで第1のオーディオ信号を捕らえることと、無線モバイル・デバイス内に含まれない第2のデバイス上に位置する第2のマイクロフォンで第2のオーディオ信号を捕らえることと、音源のうちの1つから音を表す信号を生成するために、捕らえられた第1及び第2のオーディオ信号を処理することとを含む。この音源は、例えば、望まれた音源であるが、例えば周囲の雑音源、干渉音源などのその他の音源からの音からは分離される。第1及び第2のオーディオ信号は、局所的な環境における同じ音源からの音を表しうる。] [0008] 別の態様によると、装置は、無線モバイル・デバイス上に位置し第1のオーディオ信号を捕らえるように構成された第1のマイクロフォンと、無線モバイル・デバイス内に含まれない第2のデバイス上に配置され、第2のオーディオ信号を捕らえるよう構成された第2のマイクロフォンと、捕らえられた第1及び第2のオーディオ信号に応じて、その他の音源からの音から分離された音源のうちの1つから、音を表す信号を生成するよう構成されたプロセッサとを含む。] [0009] 別の態様によると、装置は無線モバイル・デバイスで第1のオーディオ信号を捕らえる手段と、無線モバイル・デバイス内に含まれない第2のデバイスで第2のオーディオ信号を捕らえる手段と、その他の音源からの音から分離された音源のうちの1つから、音を表す信号を生成するために、捕らえられた第1及び第2のオーディオ信号を処理する手段とを含む。] [0010] 更なる態様によると、1又は複数のプロセッサによって実行可能な命令群のセットを組み込んだコンピュータ読取可能媒体は、無線モバイル・デバイスで第1のオーディオ信号を捕らえるためのコードと、無線モバイル・デバイス内に含まれない第2のデバイスで第2のオーディオ信号を捕らえるためのコードと、その他の音源からの音とは分離された音源のうちの1つから音を表す信号を生成するために、捕らえられた第1及び第2のオーディオ信号を処理するためのコードとを含む。] [0011] 以下につづく図と詳細な説明を考察する上で、その他の態様、特徴、方法、及び利点が当業者に対して明らかである、あるいは明らかになるであろう。このような追加の特徴、態様、方法、及び利点の全てはこの説明の中に含まれ、付随する特許請求の範囲によって保護される、ということが意図されている。] 図面の簡単な説明 [0012] これらの図面は単に例示の目的のためのものであるということが理解されるべきである。更に、これらの図における構成要素は、必ずしもスケールされる必要はなく、重点はむしろ本明細書において説明される技術及びデバイスの原理を例示することに置かれている。これらの図において、同一の参照番号は異なる考察でも対応する部分を示している。 図1は、複数のマイクロフォンを有するモバイル通信デバイス及びヘッドセットを含む典型的な通信システムの図である。 図2は、複数のマイクロフォンからのオーディオ信号を処理する方法を例示したフロー図である。 図3は、図1のモバイル通信デバイス及びヘッドセットの特定の構成要素を示すブロック図である。 図4は、異なるデバイス上で2つのマイクロフォンを用いた一般的な複数マイクロフォン信号処理の処理ブロック図である。 図5は、典型的なマイクロフォン信号の遅延推定アプローチを例示した図である。 図6は、マイクロフォン信号の遅延推定を詳述したブロック図である。 図7は、異なるデバイス上で2つのマイクロフォンを使用する音声アクティビティ検出(VAD)の処理ブロック図である。 図8は、異なるデバイス上で2つのマイクロフォンを使用するBSSの処理ブロック図である。 図9は、2つのマイクロフォン信号を用いて修正されたBSS実装の処理ブロック図である。 図10は、修正された周波数領域のBSS実装の処理ブロック図である。 図11は、異なるデバイス上で2つのマイクロフォンを使用するビームフォーミング方法の処理ブロック図である。 図12は、異なるデバイス上で2つのマイクロフォンを使用する空間ダイバーシティ受信技術の処理ブロック図である。] 図1 図10 図11 図12 図2 図3 図4 図5 図6 図7 実施例 [0013] 図面を参照し組み込む、以下に続く詳細な説明は、1又は複数の特定の実施形態を説明及び例示している。限定するためではなく、例示及び教示のみのために提供されるこれらの実施形態は、特許請求されている事柄を当業者が実現することを可能にするために、十分詳細に示され、説明されている。このように、簡潔のために、この説明は、当業者にとって周知である特定の情報を省略しうる。] [0014] 「典型的」という単語は本明細書において、「例、実例、例示として役立つこと」を意味するために使用される。「典型的」として本明細書において説明されるものはいずれも、必ずしもその他の態様より好ましいあるいは有利なものとして解釈されるものではない。] [0015] 図1は、複数のマイクロフォン106及び108を有するモバイル通信デバイス(MCD)104及びヘッドセット102を含む典型的な通信システム100の図である。示された例において、ヘッドセット102及びMCD104は、Bluetooth接続のような無線リンク103によって通信する。Bluetooth接続はMCD104とヘッドセット102の間で通信するために使用されうるが、その他のプロトコルが無線リンク103を介して使用されうるといことが予想されうる。Bluetooth無線リンクを使用して、MCD104とヘッドセット102の間のオーディオ信号は、Bluetooth仕様書によって提供されるヘッドセット・プロファイルに従って交換されるだろう。Bluetoothの仕様書は、www.bluetooth.comで入手可能である。] 図1 [0016] 複数の音源110は、異なるデバイス102、104上のマイクロフォン106、108によってピックアップされる音を発する。] [0017] 異なるモバイル通信デバイス上に位置する複数のマイクロフォンが、送信音声の質を向上するために活用されうる。本明細書で開示されるのは、方法及び装置である。それらによって、複数のデバイスからのマイクロフォン・オーディオ信号が、性能を向上するために活用されうる。しかしながら、本開示は、任意の複数マイクロフォン処理の特定の方法あるいは任意のモバイル通信デバイスの特定のセットに限定されない。] [0018] お互いの近くに位置する複数のマイクロフォンによって捕らえられたオーディオ信号は、一般的に音源の混合音を捕らえる。音源は(街の雑音、ざわめき声、環境雑音など)のような雑音、あるいは音声や楽器でありうる。音源からの音波は、壁や近くの物体によって跳ね返り、もしくは反射され、異なる音を生成する。音源という用語は、オリジナル音源を示すもののみならず、オリジナル音源以外の異なる音を示すためにも使用されうるということが、当業者によって理解されるべきである。用途に応じて、音源は、音声のようなものや雑音のようなものでありうる。] [0019] 現在、単一のマイクロフォンのみを伴う多くのデバイス(モバイル・ヘッドセット、有線ヘッドセット、Bluetoothヘッドセットなど)が存在する。しかし、これらのデバイスの2つ以上が結合されて使用された場合、これらのデバイスは複数のマイクロフォンによる特徴を提供する。これらの状況において、本明細書で説明される方法及び装置は、異なるデバイス上の複数のマイクロフォンを活用し、音声の質を向上することが可能である。] [0020] 捕らえられた複数のオーディオ信号を使用するアルゴリズムを適用することによって、受信された音の混合音をオリジナル音源の各々を代表する少なくとも2つの信号へ分離することが望まれる。すなわち、ブラインド音源分離(BSS)、ビームフォーミング、空間ダイバーシティ、のような音源分離アルゴリズムを適用した後、“混合”音源は個別に聞き取られうる。このような分離技術は、BSS、ビームフォーミング及び空間ダイバーシティ処理を含む。] [0021] 本明細書で説明されるのは、モバイル通信システムにおける音声の質を向上するために、異なるデバイス上で複数のマイクロフォンを活用するいくつかの典型的な方法である。簡略のために、本開示においては、2つのマイクロフォンのみを含む1つの例が示される。それらは、MCD104上の1つのマイクロフォン、及びヘッドセット102、あるいは有線ヘッドセットのようなアクセサリ上の1つのマイクロフォンである。しかし、本明細書で開示されている技術は、2つより多いマイクロフォン、及びそれぞれが複数のマイクロフォンを有するMCDとヘッドセットを伴うシステムまで拡大されうる。] [0022] システム100において、音声信号を捕らえるための1次マイクロフォン106は、通常話し手のユーザに最も近いものなので、ヘッドセット102上に位置している。一方で、MAD104上のマイクロフォン108は2次マイクロフォン108である。更に、開示されている方法は、有線ヘッドセットのようなその他適切なMCDアクセサリを用いて使用されうる。] [0023] 2つのマイクロフォン信号の処理は、MCD104において実行される。2次マイクロフォン108からの2次マイクロフォン信号に比べると、ヘッドセット102から受信される1次マイクロフォン信号は無線通信プロトコルによって遅延するので、2つのマイクロフォン信号が処理される前に、遅延補償ブロックが必要となる。遅延補償ブロックのために必要な遅延値は、一般的に既知のBluetoothヘッドセットについては知られている。遅延値が不明の場合、ノミナル値が遅延補償ブロックのために使用され、遅延補償の不確実さは2つのマイクロフォン信号処理ブロックにおいて考慮される。] [0024] 図2は、複数のマイクロフォンからのオーディオ信号を処理する方法200を例示するフロー図である。ステップ202において、1次オーディオ信号が、ヘッドセット102上に位置している1次マイクロフォン106によって捕らえられる。] 図2 [0025] ステップ204において、2次オーディオ信号が、MCD104上に位置している2次マイクロフォン108によって捕らえられる、1次及び2次オーディオ信号は、1次及び2次マイクロフォン106及び108で受信される音源110からの音をそれぞれ表している。] [0026] ステップ206において、捕らえられた1次及び2次オーディオ信号は、音源110のうちの1つからの音を表す信号を生成するために処理される。この音源110のうちの1つは、音源110のうちの他の音源からの音と分離されている。] [0027] 図3は、図1のMCD104及びヘッドセット102の特定の構成要素を示すブロック図である。無線ヘッドヘッド102及びMCD104は、それぞれ無線リンク103を介してお互いに通信可能である。] 図1 図3 [0028] ヘッドセット102は、無線リンク103を介してMCD106と通信するアンテナ303に結合された短距離無線インタフェース308を含む。無線ヘッドセット102は、コントローラ310、1次マイクロフォン106、マイクロフォン入力回路312を更に含む。] [0029] コントローラ310は、ヘッドセット102及びそこに含まれる特定の構成要素の総合的な動作を制御し、プロセッサ311及びメモリ313を含む。プロセッサ311は、本明細書で説明されるような自身の機能と処理をヘッドセット102に実行させるために、メモリ313に格納されているプログラミング命令群を実行するための、任意の適切な処理デバイスでありうる。例えば、プロセッサ311は、ARM7のようなマイクロプロセッサ、ディジタル信号プロセッサ(DSP)、1又は複数のアプリケーション特有集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、複合プログラマブル・ロジック・デバイス(CPLD)、離散ロジック、ソフトウェア、ハードウェア、ファームウェアあるいはそれら任意の適切な組合せでありうる。] [0030] メモリ313は、プロセッサ311によって使用され実行されるプログラミング命令群及びデータを格納する任意の適切なメモリ・デバイスである。] [0031] 短距離無線インタフェース308は、トランシーバ314を含み、アンテナ303を通してMCD104との2方式の無線通信を提供する。任意の適切な無線技術がヘッドセット102と共に用いられているが、短距離無線インタフェース308は、望ましくは市販のBluetoothモジュールを含んでいる。この市販のBluetoothモジュールは、モジュールをコントローラ310及び、必要ならば、ヘッドセット102のその他の構成要素に接続するためのハードウェア及びソフトウェア・インタフェースのみならず、アンテナ303、BluetoothRFトランシーバ、ベースバンド・プロセッサからなる少なくともBluetoothコア・システムを提供する。] [0032] マイクロフォン入力回路312は、1次マイクロフォン106から受信された電気信号を処理する。マイクロフォン入力回路312は、アナログ・ディジタル変換器(ADC)(図示せず)を含み、1次マイクロフォン106からの出力信号を処理するその他の回路を含みうる。ADCは、マイクロフォンからのアナログ信号をディジタル信号へと変換する。その後、そのディジタル信号は、コントローラ310によって処理される。マイクロフォン入力回路312は、市販のハードウェア、ソフトウェア、ファームウェア、あるいはそれらの任意の適切な組合せを使用して実現されうる。さらに、マイクロフォン入力回路312の機能のいくつかは、プロセッサ311あるいはディジタル信号プロセッサ(DSP)のような個別のプロセッサ上で実行可能なソフトウェアとして実現されうる。] [0033] 1次マイクロフォン108は、音響エネルギーを電気信号へと変換するための任意の適切なオーディオ・トランスデューサでありうる。] [0034] MCD104は、無線広域ネットワーク(WWAN)・インタフェース330と、1又は複数のアンテナ301と、短距離無線インタフェース320と、2次マイクロフォン108と、マイクロフォン入力回路315と、1又は複数のオーディオ処理プログラム329を格納するメモリ328及びプロセッサ326を有するコントローラ324とを含む。オーディオ・プログラム329は、とりわけ、本明細書で説明されている図2及び4乃至12の処理ブロックを実行するように、MCD104を構成しうる。MCD104は、短距離無線リンク103及びWWANリンクを介して通信するための別々のアンテナを含みうる。あるいは、別の選択肢として、単一のアンテナが両方のリンクのために使用されうる。] 図2 [0035] コントローラ324は、MCD104及びそこに含まれる特定の構成要素の総合的な動作を制御する。プロセッサ326は、本明細書で説明されているような自身の機能と処理をMCD104に実行させるために、メモリ328に格納されているプログラミング命令群を実行させる、任意の適切な処理デバイスでありうる。例えば、プロセッサ326は、ARM7のようなマイクロプロセッサ、ディジタル信号プロセッサ(DSP)、1又は複数のアプリケーション特有集積回路(ASIC)、フィールド・プログラマブル・ゲート・アレイ(FPGA)、複合プログラマブル・ロジック・デバイス(CPLD)、離散ロジック、ソフトウェア、ハードウェア、ファームウェアあるいはそれら任意の適切な組合せでありうる。] [0036] メモリ324は、プロセッサ326によって実行及び使用されるプログラミング命令群及びデータを格納するための、任意の適切なメモリ・デバイスである。] [0037] WWANインタフェース330は、WWANと通信するために必要な物理インタフェース全体を備えている。インタフェース330は、WWAN内の1又は複数の基地局と無線信号を交換するように構成された無線トランシーバ332を含む。適切な無線通信ネットワークの例は、符号分割多元接続(CDMA)ベースのネットワーク、WCDMA、GSM、UTMS、AMPS、PHSネットワークなどを含むが、それらに限定はされない。WWAにンタフェース330は、接続されたデバイスへのWWANを介した音声呼出あるいはデータ転送を容易にするために、無線信号をWWANと交換する。接続されたデバイスは、別のWWAN端末、陸線電話、あるいは音声メール・サーバやインターネット・サーバのようなネットワーク・サービス・エンティティなどでありうる。] [0038] 短距離無線インタフェース320は、トランシーバ336を含み、無線ヘッドセット102との2方式の無線通信を提供する。任意の適切な無線技術がMCD104と共に用いられうるが、短距離無線インタフェース336は望ましくは市販のBluetoothモジュールを含んでいる。この市販のBluetoothモジュールは、モジュールをコントローラ324及び、必要ならば、MCD104のその他の構成要素に接続するためのハードウェア及びソフトウェア・インタフェースのみならず、アンテナ301、BluetoothRFトランシーバ、ベースバンド・プロセッサからなる少なくともBluetoothコア・システムを提供する。] [0039] マイクロフォン入力回路315は、2次マイクロフォン108から受信された電気信号を処理する。マイクロフォン入力315は、アナログ・ディジタル変換器(ADC)(図示せず)を含み、2次マイクロフォン108からの出力信号を処理するその他の回路を含みうる。ADCは、マイクロフォンからのアナログ信号をディジタル信号へと変換する。その後そのディジタル信号は、コントローラ324によって処理される。マイクロフォン入力回路315は、市販のハードウェア、ソフトウェア、ファームウェア、あるいはそれら任意の適切な組合せを使用して実現されうる。更に、マイクロフォン入力回路315の機能のいくつかは、プロセッサ326あるいはディジタル信号プロセッサ(DSP)のような個別のプロセッサ上で実行可能なソフトウェエアとして実現されうる。] [0040] 2次マイクロフォン108は、音響エネルギーを電気信号へ変換する任意の適切なオーディオ・トランスデューサでありうる。] [0041] MCD104及びヘッドセット102の構成要素は、アナログあるいは/及びディジタル・ハードウェア、ファームウェア、あるいはソフトウェアの任意の適切な組合せを使用して実現されうる。] [0042] 図4は、異なるデバイス上の2つのマイクロフォンを用いた一般的な複数マイクロフォン信号処理の処理ブロック図である。図示されるように、ブロック402乃至410はMCD104によって実行されうる。] 図4 [0043] 図において、ディジタル化された1次マイクロフォン信号サンプルは、x1(n)によって示されている。MCD104からのディジタル化された2次マイクロフォン信号サンプルは、x2(n)によって示される。] [0044] ブロック400は、1次マイクロフォン・サンプルが無線リンク103を介してヘッドセット102からMCD104へと伝送される際に経験する遅延を表している。1次マイクロフォン・サンプルx1(n)は、2次マイクロフォン・サンプルx2(n)に比べて遅延する。] [0045] ブロック402において、1次マイクロフォン・サンプルからのエコーを取り除くために、線形エコー・キャンセラ(LEC)が実行される。適切なLEC技術は当業者に周知である。] [0046] 遅延補償ブロック404において、2次マイクロフォン信号は、2つのマイクロフォン信号が更に処理される前に、tdサンプル遅延する。遅延補償ブロックのために必要とされる遅延値tdは、一般的にBluetoothヘッドセットのような周知の無線プロトコルについて知られている。遅延値が不明の場合、ノミナル値が遅延補償ブロック404において使用されうる。遅延値は、図5乃至6に関連付けて下記に説明されているように、更に詳述化されうる 本願における別の障害は、2つのマイクロフォン信号の間のデータ・レートの違いを補償することである。これはサンプリング・レート補償ブロック406においてなされる。一般に、ヘッドセット102及びMCD104は、2つの独立クロック・ソースによって制御されうる。クロック・レートは、時間にわたってお互いに関してわずかにドリフトしうる。クロック・レートが異なる場合、2つのマイクロフォン信号についてフレーム毎に届けられるサンプルの数は異なりうる。これは一般的に、サンプル・スリッピング問題として知られており、当業者には既知の様々なアプローチがこの問題に対処するために使用されうる。サンプル・スリッピングにおいて、ブロック406は、2つのマイクロフォン信号の間のデータ・レートの差を補償する。] 図5 [0047] 望ましくは、1次及び2次のマイクロフォン・サンプル・ストリームのサンプリング・レートが、両方のストリームを含む更なる信号処理が実行される前に一致される。これを達成するための多数の方法が存在する。例えば1つの方法は、1つのストリームからのサンプルを追加/除去して、その他のストリームにおけるサンプル/フレームに一致させることである。別の方法は、1つのストリームのサンプリング・レートの詳細調整を行い、他と一致させることである。例えば、両方のチャネルが8kHzのノミナル・サンプリング・レートを有しているとしよう。しかしながら、1つのチャネルの実際のサンプリング・レートは7985Hzである。よって、このチャネルのオーディオ・サンプルは、8000Hzまで引き上げてサンプルされる必要がある。別の例として、1つのチャネルは8023Hzのサンプリング・レートを有しうる。これは8kHzまで引き下げてサンプルされる必要があるオーディオ・サンプルである。2つのストリームの任意の再サンプリングを行い、それらのサンプリング・レートを一致させるために使用されうる方法が多数存在する。] [0048] ブロック408において、2次マイクロフォン108は、1次及び2次マイクロフォン106及び108の感度差を補償するように校正される。この校正は2次マイクロフォンのサンプル・ストリームを調整することによって達成される。] [0049] 一般に、1次及び2次マイクロフォン106及び108は、全く異なる感度を有しうるので、2次マイクロフォン信号を校正する必要がある。それによって、2次マイクロフォン108によって受信される背景雑音電力は、1次マイクロフォン106と同様のレベルを有しうる。校正は、2つのマイクロフォン信号の雑音フロアを推定することを含むアプローチを使用し、その後、2次マイクロフォン信号をスケールするために2つの雑音フロア推定値の比の平方根を使用して実行されうる。それによって、2つのマイクロフォン信号が同じ雑音フロア・レベルを有する。マイクロフォンの感度を校正するその他の方法が代替的に使用されうる。] [0050] ブロック410において、複数マイクロフォンのオーディオ処理が生じる。この処理は、音声の質、システム性能などを向上するために、複数のマイクロフォンからのオーディオ信号を活用するアルゴリズムを含む。このようなアルゴリズムの例は、VADアルゴリズム、及びブラインド音源分離(BSS)、ビームフォーミング、あるいは空間ダイバーシティのような音源分離アルゴリズムを含む。音源分離アルゴリズムは、混合された音源の分離を可能にするので、望まれた音源の信号が遠端の聞き手へ送信される。先の典型的なアルゴリズムが、より詳細に下記で説明される。] [0051] 図5は、MCD104に含まれる線形エコー・キャンセラ(LEC)402を利用する典型的なマイクロフォン信号遅延推定アプローチを例示する図である。このアプローチは、無線リンク103を介して伝送される1次マイクロフォン信号によって経験される無線チャネル遅延500を推定する。一般に、エコー除去アルゴリズムは、マイクロフォン(1次マイクロフォンTx経路)の信号上に存在するヘッドセット・スピーカ506を通して遠端エコー(1次マイクロフォンRx経路)経験を除去するためにMCD104上で実施される。1次マイクロフォンRx経路は、ヘッドセット102において生じるRx処理504を含みうる。1次マイクロフォンTx経路はヘッドセット102において生じるTx処理502を含みうる。] 図5 [0052] エコー除去アルゴリズムは、一般にMCD104内のフロント・エンド上のLEC402から成る。LEC402は、遠端Rx信号上に適応フィルタを実装し、後続の1次マイクロフォン信号からのエコーを取り除く。LEC402を効果的に実施するために、Rx経路からTx経路への往復遅延が既知である必要がある。一般に、往復遅延は一定、あるいは少なくとも一定値に近い。この一定の遅延はMCD104の初期調整の間に推定され、LECの解を設定するために使用される。往復遅延trdの推定値が既知になると、1次マイクロフォン信号によって経験される遅延の概算推定値t0dが、2次マイクロフォン信号と比べられ、往復遅延の半分として計算されうる。初期概算遅延が既知になると、実際の遅延が値域にわたる精細な探索によって推定されうる。] [0053] この精細探索は以下のように説明される。LEC402後の1次マイクロフォン信号を、X1(n)として示す。MCD104からの2次マイクロフォン信号を、x2(n)として示す。2次マイクロフォン信号はまず最初に、2つのマイクロフォン信号x1(n)とx2(n)の間の初期概算遅延補償を提供するために、t0d遅延される。ここで、nはサンプル・インデックス整数値である。この初期概算遅延は、一般に粗い推定値である。この遅延された2次マイクロフォン信号は、その後、遅延値τの範囲について1次マイクロフォン信号と相互に相関付けられる。実際の、精細な遅延推定値、tdは、τの範囲にわたって相互相関出力を最大化することによって求められる。] [0054] この範囲パラメータτは、正及び負両方の整数値でありうる。例えば、−10≦τ≦10。最終推定値tdは、相互相関性を最大化するτ値に対応する。同じ相互相関アプローチが、1次マイクロフォン信号内に存在するエコーと遠端信号の間の粗い遅延推定値を計算するためにも使用されうる。しかし、この場合においては、通常、遅延値が大きく、τの範囲は前の経験や広範囲の値にわたる調査に基づいて、慎重に選択されなくてはならない。] [0055] 図6は、マイクロフォン信号の遅延推定を精細化するための別のアプローチを例示する処理ブロック図である。このアプローチにおいて、上記式1を使用して遅延推定値の相互相関を計算する(ブロック608)前に、2つのマイクロフォンのサンプル・ストリームが、ローパス・フィルタ(LPD)604、606によってオプションでローパス・フィルタされる。2つのマイクロフォン106及び108が遠く離れて位置している場合は、低周波数成分のみが2つのマイクロフォン信号の間で相関関係にあるので、ローパス・フィルタが助けとなる。ローパス・フィルタのカットオフ周波数は、VADおよびBSSを説明している本明細書の下記で説明する方法に基づいて求められる。図6のブロック602が示されているように、2次マイクロフォン・サンプルは、ローパス・フィルタする前に、初期概算遅延t0d遅延される。] 図6 [0056] 図7は、異なるデバイス上で2つのマイクロフォンを使用する音声アクティビティ検出(VAD)700の処理ブロック図である。単一マイクロフォン・システムにおいて、背景雑音電力は、雑音が時間にわたって一定でない場合、正しく推定されない。しかし、(MCD104からの)2次マイクロフォン信号を使用して、より正確な背景雑音電力の推定値が取得されうる。よって、大いに向上された音声アクティビティ検出器が実現される。VAD700は、様々な方式で実現されうる。VAD実施の例が、以下の通り説明される。] 図7 [0057] 一般に、2次マイクロフォン108は、1次マクロフォン106から比較的遠く(8センチ以上)にあるだろう。ゆえに、2次マイクロフォン108は、主として周囲の雑音を捕らえ、ユーザからの望まれた音声はほとんど捕らえないだろう。この場合、VAD700は、校正された2次マイクロフォン信号と、1次マイクロフォン信号を単純に比較することによって実現される。1次マイクロフォン信号の電力レベルが、校正された2次マイクロフォン信号より十分高い場合、音声が検出されたと宣言される。2次マイクロフォン108は、MCD104の製造の間に初期校正されうるので、2つのマイクロフォン106及び108によって捕らえられる周囲雑音のレベルは、お互いに近い。校正後、2つのマイクロフォン信号の受信されたサンプルの各ブロック(すなわちフレーム)の平均電力が比較され、1次マイクロフォン信号の平均ブロック電力が、予め定められたしきい値の分、2次マイクロフォン信号を上回る場合に、音声の検出が宣言される。2つのマイクロフォンが比較的遠く離れて配置されていると、2つのマイクロフォン信号の間の相関性は高周波数の場合途絶える。マイクロフォン間の距離(d)と最大相関周波数(fmax)との間の関係は、以下の式を使用して表されうる。] [0058] C=343m/sが空気中の音の速さ、dがマイクロフォン隔離距離及びfmaxが最大相関周波数であるとする。ブロック・エネルギー推定値を計算する前に、2つのマイクロフォン信号の経路にローパス・フィルタを挿入することによって、VADの性能は向上する。ローパス・フィルタは、2つのマイクロフォン信号の間で相関付けられたこれら高いオーディオ周波数のみを選択する。よって、決定は相関関係のない成分によって偏ることがない。ローパス・フィルタのカットオフは、下記のように設定されうる。 f−cutoff=max(fmax,800), f−cutoff=min(f−cutoff,2800) (3) ここで、800Hz及び2800Hzが、ローパス・フィルタの最小カットオフ周波数及び最大カットオフ周波数の例として与えられる。ローパス・フィルタは、単純なFIRフィルタ、あるいは特定のカットオフ周波数を伴うbiQuadIIRフィルタでありうる。] [0059] 図8は、異なるデバイス上で2つのマイクロフォンを使用するブラインド音源分離(BSS)の処理ブロック図である。BSSモジュール800は、センサーのアレイによって記録された音源信号の複数の混合音から音源信号を分離し復元する。BSSモジュール800は一般に、混合音からオリジナル音源を分離するために、高位順序統計値を用いる。] 図8 [0060] ヘッドセット102によって捕らえられる音声信号の明瞭さは、背景雑音が激しすぎたり、非定常すぎるものである場合、大いに損害を受けうる。BSS800は、これらのシナリオにおいて音声品質における顕著な向上を提供しうる。] [0061] BSSモジュール800は、様々な音源分離アプローチを使用しうる。BSS方法は一般に、1次マイクロフォン信号からの雑音を取り除くために適応フィルタを用いて、2次マイクロフォン信号から、望まれた音声を取り除く。適応フィルタは相関信号をモデル化して取り除くのみなので、1次マイクロフォン信号からの低周波数雑音を、また2次マイクロフォン信号から低周波数音声を取り除く際に特に効果的だろう。BSSフィルタの性能は、低周波数領域のみにおける適応フィルタリングによって向上しうる。これは2つの方式において達成されうる。] [0062] 図9は、2つのマイクロフォン信号を伴う変形BSS実装の処理ブロック図である。BSS実装は、BSSフィルタ852、2つのローパス・フィルタ(LPF)854と856、及びBSSフィルタ学習及び更新モジュール858を含む。BSS実装において、異なるオーディオ音源からくる信号を分離するために、適応/固定フィルタ853を使用して2つの入力オーディオ信号がフィルタされる。フィルタ852は、適応フィルタでありうる。すなわち、フィルタ重みが、入力データに応じて、時間にわたって適合されうる。あるいは、フィルタは固定フィルタでありうる。すなわち、予め計算されたフィルタ係数の固定された組が、入力信号を分離するために使用されうる。通常、適応フィルタ実装は、特に入力統計値が非定常な場合に、より良い性能を提供するため、より一般的である。] 図9 [0063] 2つのマイクロフォンを有するデバイスの典型がそうであるように、BSSは2つのフィルタ、すなわち、入力された混合音の信号から望まれたオーディオ信号を分離するフィルタと、入力された混合音の信号から周囲雑音/干渉信号を分離するもう一方のフィルタとを用いる。この2つのフィルタは、FIRフィルタあるいはIIRフィルタでありうる。適応フィルタの場合は、2つのフィルタの重みは連帯的に更新されうる適応フィルタの実装は、2つの段階を必要とする。第1段階は入力データから学習することによってフィルタ重み更新値を計算し、第2段階は入力データを用いてフィルタ重みを畳み込むことによってフィルタを実現する。ゆえに、データを使用してフィルタ更新値を計算する第1段階858を実現するために、ローパス・フィルタ854が入力データに適用される、ということが提案される。しかし、第2段階852おいては、適応フィルタが(LPFなしで)オリジナル入力データについて実施される。LPF854及び856は、方程式(3)において記されているようなカットオフ周波数を用いたIIRフィルタあるいはFIRフィルタとして設計されうる。時間ドメインBSS実装では、2つのLPF854及び856は、図9に示されているように、2つのマイクロフォン信号に各々適用されている。フィルタされたマイクロフォン信号は、BSSフィルタ学習及び更新モジュール858に提供される。フィルタされた信号に応じて、モジュール858はBSSフィルタ852のフィルタ・パラメータを更新する。] 図9 [0064] BSSの周波数ドメイン実装のブロック図が、図10において示される。この実装は、高速フーリエ変換(FFT)ブロック970、BSSフィルタ・ブロック972、後処理ブロック974及び逆高速フーリエ変換(IFFT)ブロック976を含む。周波数ドメインBSS実装においては、BSSフィルタ972は低周波数(すなわちサブバンド)においてのみ実装される。低周波数領域に対するカットオフは、方程式(2)及び(3)において示されているのと同じ方法で求められうる。周波数ドメインの実装において、BSSフィルタ972の個別の組が各周波数値帯域(すなわちサブバンド)に対して実装される。ここで再度、2つの適応フィルタ、すなわち、混合された入力から望まれたオーディオ音源を分離するフィルタと、混合された入力から周囲雑音を分離するもう一方のフィルタ、が各周波数値域に対して実施される。様々な周波数ドメインBSSアルゴリズムが、この実装のために使用されうる。BSSフィルタが既に狭帯域データについて動作しているため、この実装におけるフィルタ学習段階及び実装段階を分離させる必要はない。低周波数(例えば800Hz未満)に対応する周波数値域では、望まれた音源信号をその他の音源信号から分離させるために、周波数ドメインBSSフィルタ972が実装される。] 図10 [0065] 通常、より高いレベルの雑音抑制を達成するために、後処理アルゴリズム974もBSS/ビームフォーミング方法と共に使用される。後処理アプローチ974は一般に、ウィーナー・フィルタリング、スペクトル減算法あるいはその他の非線形技術を使用して、周囲雑音、及び望まれた音源信号からのその他の望まれていない信号を更に抑える。後処理アルゴリズム974は一般に、マイクロフォン信号間の位相関係を活用しない。故に、2次マイクロフォン信号の低周波数部及び高周波数部両方からの情報を活用して、送信された信号の音声の質を向上しうる。マイクロフォンからの低周波数BSS出力及び高周波数信号の両方が、後処理アルゴリズム974によって使用されることが提案される。後処理アルゴリズムは、(低周波数の)BSSの2次マイクロフォンの出力信号及び(高周波数の)2次マイクロフォン信号から各周波数値域に対する雑音電力レベルの推定値を計算する。その後、各周波数値域に対する利得を導き、その利得を送信された1次信号に適用して周囲雑音を更に取り除き、音声の質を高める。] [0066] 低周波数においてのみ雑音抑制を行うことの利点を例示するために、以下に続く典型的なシナリオについて考える。ユーザは、車中で運転しながら無線あるいは有線ヘッドセットを使用し、モバイル・ハンドセットを彼/彼女のシャツ/ジャケットのポケットの中に、あるいはヘッドセットから20センチ以上は離れていないどこかに置いている。この場合、860Hz未満の周波数成分は、ヘッドセットによって捕らえられたマイクロフォン信号と、ハンドセット・デバイスによって捕らえられたマイクロフォン信号との間で相関付けられるだろう。車中における道路雑音及びエンジン雑音は主に、大部分が800Hz以下に集中している低周波数エネルギーを含んでいるので、低周波数雑音抑制アプローチは、顕著な性能向上を提供しうる。] [0067] 図11は、異なるデバイス上の2つのマイクロフォンを使用するビームフォーミング方法1000の処理ブロック図である。ビームフォーミング方法は、センサーのアレイによって記録される信号を線形結合することによって空間フィルタリングを実行する。本開示のコンテクストにおいて、センサーは異なるデバイス上に位置するマイクロフォンである。空間フィルタリングは、望まれた方向からの信号の受信を強化する一方で、その他の方向から到来する干渉信号を抑制する。] 図11 [0068] ヘッドセット102及びMCD104における2つのマイクロフォン106及びマイクロフォン108を使用してビームフォーミングを実行することによって、送信音声の質も向上されうる。ビームフォーミングは、望まれた音声の音源とは異なる方向から到来する周囲雑音を抑制することによって、音声の質を向上する。このビームフォーミング方法は当業者によって容易に周知となる様々なアプローチを使用することができる。] [0069] ビームフォーミングは一般的に適応FIRフィルタを用いて適用され、2つのマイクロフォン信号をローパス・フィルタリングするのと同じ概念が、適応フィルタの学習効率を向上させるために使用される。BSS方法及びビームフォーミング方法の組合せが複数マイクロフォン処理を行うために用いられる。] [0070] 図12は、異なるデバイス上で2つのマイクロフォンを使用する空間ダイバーシティ受信技術1100の処理ブロック図である。空間ダイバーシティ技術は、環境おける多重伝搬による干渉フェ−ディングをうける音響信号の受信の信頼性を向上するための様々な方法を提供する。空間ダイバーシティ・スキームは、以下の点においてビームフォーミング方法とは全く異なる。ビームフォーミング方法においては、ビームフォーマが出力信号の信号対雑音比(SNR)を向上するためにマイクロフォン信号をコヒーレントに結合することによって動作する。ここでは、ダイバーシティ・スキームが、多重伝搬によって影響を受ける信号の受信を向上させるために、複数の受信された信号をコヒーレントにあるいは非コヒーレントに結合することによって動作する。記録された音声信号の質を向上するために使用されうる様々なダイバーシティ結合技術が存在する。] 図12 [0071] 1つのダイバーシティ結合技術は、2つのマイクロフォン信号をモニタすることと、最も強い信号、すなわち最も高いSNRを持つ信号、を捕らえることとを含む選択結合技術である。ここで、遅延した1次マイクロフォン信号のSNRと、校正された2次マイクロフォン信号のSNRとがまず計算され、その後、最も強いSNRを持つ信号が出力として選択される。マイクロフォン信号のSNRは、当業者に周知の以下の技術によって推定されうる。] [0072] 別のダイバーシティ結合技術は、最大比結合技術である。これは、それぞれのSNRを持つ2つのマイクロフォン信号を重み付け、その後それらを結合し出力信号の質を向上させることを含む。例えば、2つのマイクロフォン信号の重み付けされた結合は、以下のように表される。 y(n)=a1(n)s1(n)+a2(n)s2(n−τ) (4) ここで、s1(n)及びs2(n)は、2つのマイクロフォン信号であり、a1(n)及びa2(n)はこれら2つの重みであり、y(n)は出力である。2次マイクロフォン信号は、2つのマイクロフォン信号のコヒーレントな総和に起因する位相打消しによる減弱を最小にするために、オプションで、値tまで遅延される。] [0073] 2つの重みは1未満かつ任意の与えられた瞬間においてでなければならず、2つの重みの総和が1になる。重みは時間とともに変化する。重みは、対応するマイクロフォン信号のSNRに比例するように設定されうる。重みは時間が経つにつれ一定になりうるし、時間と共にごくゆっくりと変化するので、結合された信号y(n)はいかなる望ましくないアーティファクトも有していない。一般に、1次マイクロフォン信号の重みは非常に高い。なぜなら、2次マイクロフォン信号のSNRより高いSNRを持つ望まれた音声を捕らえるからである。] [0074] 代替例として、2次マイクロフォン信号から計算されたエネルギー推定値は、雑音抑制技術によって用いられる非線形後処理モジュールにおいても使用されうる。雑音抑制技術は一般的に、1次マイクロフォン信号からの更なる雑音と取り除くために、スペクトル減算法のような非線形後処理法を用いる。後処理技術は一般に、1次マイクロフォン信号における雑音を抑制するために、周囲雑音のレベル・エネルギーの推定値を必要とする。周囲雑音のレベル・エネルギーは、2次マイクロフォン信号のブロック電力推定値から、あるいは両方のマイクロフォン信号からのブロック電力推定値の重み付けされた結合として、計算されうる。] [0075] Bluetoothヘッドセットのようなアクセサリのいくつかは、Bluetooth通信プロトコルによって距離情報を提供することが可能である。よって、Bluetooth実装において、距離情報は、ヘッドセット102がMCD104からどのくらい離れた所に位置しているかを教える。距離情報が入手できない場合、距離のおおよその推定値が方程式(1)を使用して計算された時間遅延推定値から計算される。距離情報は、送信音声の質を向上するためにどんな種類の複数マイクロフォン・オーディオ処理アルゴリズムを使用するかを決定するために、MCD104によって活用されうる。例えば、ビームフォーミング方法は、1次及び2次マイクロフォンがお互いに近いところ(距離<8cm)に位置している場合に理想的に良好に動作する。このように、こういった状況においては、ビームフォーミング方法が選択されうる。BBSアルゴリズムは、中距離(6cm<距離<15cm)において良好に動作し、空間ダイバーシティ・アプローチは、マイクロフォンが遠く離れて距離を置いている(距離>15cm)場合に良好に動作する。このように、これら各々の距離において、BSSアルゴリズム及び空間ダイバーシティ・アルゴリズムがMCD104によってそれぞれ選択されうる。このように、2つのマイクロフォンの間の距離の情報が、送信音声の質を向上させるために利用されうる。] [0076] 本明細書で説明される方法の手順及びブロックと同様、システム、デバイス、ヘッドセット及びそれらそれぞれの構成要素の機能は、ハードウェア、ソフトウェア、ファームウェア、あるいはそれらの任意の適切な組合せで実現されうる。ソフトウェア/ファームウェアはマイクロプロセッサ、DSP、組込みコントローラ、あるいは知的財産(IP)コアのような1又は複数のディジタル回路によって実行可能な命令群のセット(例えば、コード・セグメント)を有するプログラムでありうる。ソフトウェア/ファームウェアにおいて実現される場合、機能は命令群あるいはコードとして、1又は複数のコンピュータ読取可能メディア上に格納される、あるいはそれらを介して送信される。コンピュータ読取可能媒体は、ある場所から別の場所へとコンピュータ・プログラムを送信することを容易にする任意の媒体を含む通信媒体とコンピュータのストレージ媒体との両方を含む。ストレージ媒体は、コンピュータによってアクセスされうる任意の入手可能な媒体でありうる。限定ではなく、例として、こういったコンピュータ読取可能媒体は、RAM,ROM,EEPROM、CD−ROMかその他の光学ディスク・ストレージ、磁気ディスク・ストレージかその他の磁気ストレージ・デバイス、あるいは、命令群もしくはデータ構造へ望まれたプログラムを伝えるあるいは格納するために使用され、コンピュータによってアクセスされうる、その他任意のデバイスを備えうる。更に、任意の接続が、適切にコンピュータ読取媒体と称される。例えば、同軸ケーブルや、光ファイバー・ケーブルや、ツイスト・ペアや、ディジタル加入者回線(DSL)や、あるいは、赤外線、無線、及びマイクロ波のような無線技術を使用して、ウェブサイト、サーバ、あるいはその他の遠隔ソースからソフトウェアが送信される場合、同軸ケーブルや、光ファイバー・ケーブルや、ツイスト・ペアや、DSLや、あるいは赤外線、無線、及びマイクロ波のような無線技術は、媒体の定義に含まれる。本明細書で使用されるようなディスク(disk)及びディスク(disc)は、コンパクト・ディスク(CD)、レーザー・ディスク、光学ディスク、ディジタル・バーサタイル・ディスク(DVD)、フロッピー(登録商標)・ディスク及びブルーレイ・ディスクを含む。ここで、ディスク(disk)は通常データを磁気的に再生する一方、ディスク(disc)はレーザーを用いてデータを光学的に再生する。上で述べられたものの組合せも、コンピュータ読取可能媒体の範囲内に含まれるべきである。] [0077] 特定の実施形態が説明されてきた。しかし、これらの実施形態に対する様々な変形例がありうるし、本明細書において述べられた原理は、その他の実施形態にも同様に適用されうる。例えば、本明細書で開示された原理は、情報携帯端末(PDA)、パーソナル・コンピュータ、ステレオ・システム、ビデオ・ゲームなどを含む無線デバイスのようなその他のデバイスに適用されうる。更に、本明細書で開示された原理は、有線ヘッドセットに適用されうる。ここでは、ヘッドセットと別のデバイスとの間の通信リンクが無線リンクではなく有線である。加えて、様々な構成要素及び/あるいは方法のステップ/ブロックは、特許請求の範囲から逸脱することなく、明確に開示されたものとは異なる構成において実施されうる。] [0078] 当業者であれば、これらの教示を考慮して、その他の実施形態及び変形例を、容易に思いつくだろう。よって、以下に続く請求項は、上記の明細書と添付図面を連携して考慮した場合に、このような全ての実施形態及び変形例を含むことが意図されている。]
权利要求:
請求項1 通信システムにおいてオーディオ信号を処理する方法であって、無線モバイル・デバイス上に位置する第1のマイクロフォンで、複数の音源からの音を表す第1のオーディオ信号を捕らえることと、前期無線モバイル・デバイスに含まれない第2のデバイス上に位置する第2のマイクロフォンで、前記複数の音源からの音を表す第2のオーディオ信号を捕らえることと、前記複数の音源のうちの他の音源からの音から分離されており、前記複数の音源のうちの1つからの音を表す信号を生成するために、捕らえられた前記第1のオーディオ信号及び前記第2のオーディオ信号を処理することとを含む方法。 請求項2 前記第2のデバイスがヘッドセットである請求項1の方法。 請求項3 前記ヘッドセットが、無線リンク方式で前記無線モバイル・デバイスと通信している無線デバイスである請求項2に記載の方法。 請求項4 前記無線リンクがBluetoothプロトコルを使用する請求項3に記載の方法。 請求項5 前記Bluetoothプロトコルによって範囲情報は提供され、前記範囲情報は音源分離アルゴリズムを選択するために使用される請求項4に記載の方法。 請求項6 処理することは、ブラインド分離アルゴリズム、ビームフォーミング・アルゴリズム、あるいは空間ダイバーシティ・アルゴリズムのうちから、音源分離アルゴリズムを選択することを含み、前記選択された音源分離アルゴリズムによって範囲情報が使用される請求項1に記載の方法。 請求項7 前記信号に基づいて、音声アクティビティ検出を実行することを更に含む請求項1に記載の方法。 請求項8 前記第1のオーディオ信号と前記第2のオーディオ信号とを相互に相関付けることと、前記第1のオーディオ信号と前記第2のオーディオ信号との間の前記相互相関性に基づいて、前記第1のオーディオ信号と前記第2のオーディオ信号との間の遅延を推定することとを更に含む請求項1に記載の方法。 請求項9 前記第1のオーディオ信号と前記第2のオーディオ信号との前記相互相関付けを実行する前に、前記第1のオーディオ信号及び前記第2のオーディオ信号をローパス・フィルタリングすることを更に含む請求項8に記載の方法。 請求項10 前記第1のオーディオ信号と前記第2のオーディオ信号との間の遅延を補償することを更に備える請求項1に記載の方法。 請求項11 前記第1のオーディオ信号と前記第2のオーディオ信号との異なるオーディオ・サンプリング・レートを補償することをさらに備える請求項1に記載の方法。 請求項12 無線モバイル・デバイス上に位置し、複数の音源からの音を表す第1のオーディオ信号を捕らえるよう構成された第1のマイクロフォンと、前記無線モバイル・デバイスに含まれない第2のデバイス上に位置し、前記複数の音源からの音を表す第2のオーディオ信号を捕らえるよう構成された第2のマイクロフォンと、捕らえられた前記第1及び前記第2のオーディオ信号に応じて、前記複数の音源のうちの他の音源からの音から分離されており、前記複数の音源のうちの1つからの音を表す信号を生成するよう構成されたプロセッサとを備える装置。 請求項13 前記第2のデバイスを備え、前記第2のデバイスがヘッドセットである請求項12の装置。 請求項14 前記ヘッドセットが、無線リンク方式で前記無線モバイル・デバイスと通信している請求項13に記載の装置。 請求項15 前記無線リンクがBluetoothプロトコルを使用している請求項14に記載の装置。 請求項16 前記Bluetoothプロトコルによって範囲情報が提供され、前記範囲情報が、音源分離アルゴリズムを選択するために使用される請求項15に記載の装置。 請求項17 前記プロセッサが、ブラインド音源分離アルゴリズム、ビームフォーミング・アルゴリズム、あるいは空間ダイバーシティ・アルゴリズムのうちから音源分離アルゴリズムを選択する請求項12に記載の装置。 請求項18 前記信号に反応する音声アクティビティ検出器を更に備える請求項12に記載の装置。 請求項19 前記無線モバイル・デバイスを備え、前記無線モバイル・デバイスが前記プロセッサを含む請求項12に記載の装置。 請求項20 複数の音源からの音を表す第1のオーディオ信号を無線モバイル・デバイスにおいて捕らえる手段と、前記複数の音源からの音を表す第2の信号を、前記無線モバイル・デバイスに含まれない第2のデバイスにおいて捕らえる手段と、前記複数の音源のうちの他の音源からの音から分離されており、前記複数の音源のうちの1つからの音を表す信号を生成するために、捕らえられた前記第1及び第2のオーディオ信号を処理する手段とを備える装置。 請求項21 前記第2のデバイスを含み、前記第2のデバイスはヘッドセットである請求項20に記載の装置。 請求項22 前記ヘッドセットは、無線リンク方式で前記無線モバイル・デバイスと通信している無線ヘッドセットである請求項21に記載の装置。 請求項23 前記無線リンクはBluetoothプロトコルを使用する請求項22の装置。 請求項24 前記Bluetoothプロトコルによって範囲情報が提供され、前記範囲情報は音源分離アルゴリズムを選択するために使用される請求項23に記載の装置。 請求項25 ブラインド音原分離アルゴリズム、ビームフォーミング・アルゴリズム、あるいは空間ダイバーシティ・アルゴリズムのうちから音源分離アルゴリズムを選択する手段を更に備える請求項20に記載の装置。 請求項26 1あるいは複数のプロセッサによって実行可能な命令群のセットを組み込んだコンピュータ読取可能媒体であって、無線モバイル・デバイスにおいて複数の音源からの音を表す第1のオーディオ信号を捕らえるためのコードと、前記無線モバイル・デバイスに含まれない第2のデバイスにおいて、前記複数の音源からの音を表す第2のオーディオ信号を捕らえるためのコードと、前記複数の音源のうちの他の音源からの音から分離されており、前記複数の音源のうちの1つからの音を表す信号を生成するために、捕らえられた前記第1及び第2のオーディオ信号を処理するためのコードとを備えるコンピュータ読取可能媒体。 請求項27 前記信号に基づいて音声アクティビティ検出を実行するためのコードを更に備える請求項26に記載のコンピュータ読取可能媒体。 請求項28 前記第1のオーディオ信号と前記第2のオーディオ信号とを相互に相関付けるためのコードと、前記第1のオーディオ信号と前記第2のオーディオ信号との間の相互相関性に基づいて、前記第1のオーディオ信号と前記第2のオーディオ信号との間の遅延を推定するためのコードとを更に備える請求項26に記載のコンピュータ読取可能媒体。 請求項29 前記第1のオーディオ信号と前記第2のオーディオ信号との間の相互相関付けを実行する前に、前記第1のオーディオ信号と前記第2のオーディオ信号をローパス・フィルタリングするためのコードを更に含む請求項28に記載のコンピュータ読取可能媒体。 請求項30 前記第1のオーディオ信号と前記第2のオーディオ信号との間の遅延を補償するためのコードを更に備える請求項26に記載のコンピュータ読取可能媒体。 請求項31 前記第1のオーディオ信号と前記第2のオーディオ信号の異なるサンプリング・データ・レートを補償するためのコードを更に備える請求項26に記載のコンピュータ読取可能媒体。
类似技术:
公开号 | 公开日 | 专利标题 AU2016201028B2|2017-09-07|Signal enhancement using wireless streaming US20180040334A1|2018-02-08|Apparatuses and systems for acoustic channel auto-balancing during multi-channel signal extraction EP2916321B1|2017-10-25|Processing of a noisy audio signal to estimate target and noise spectral variances US9966067B2|2018-05-08|Audio noise estimation and audio noise reduction using multiple microphones US8942383B2|2015-01-27|Wind suppression/replacement component for use with electronic systems US9343056B1|2016-05-17|Wind noise detection and suppression US8811601B2|2014-08-19|Integrated echo cancellation and noise suppression JP5456778B2|2014-04-02|System, method, apparatus, and computer-readable recording medium for improving intelligibility KR101084420B1|2011-11-21|잡음 억압 장치, 휴대 전화기, 잡음 억압 방법 및 기록 매체 JP5596048B2|2014-09-24|System, method, apparatus and computer program product for enhanced active noise cancellation KR101479386B1|2015-01-05|복수의 음성 활성도 검출기들에 기초한 음성 활성도 검출 DE60125553T2|2007-10-04|Verfahren zur interferenzunterdrückung US6717991B1|2004-04-06|System and method for dual microphone signal noise reduction using spectral subtraction US9185487B2|2015-11-10|System and method for providing noise suppression utilizing null processing noise subtraction JP6572894B2|2019-09-11|Information processing apparatus, information processing method, and program US8644517B2|2014-02-04|System and method for automatic disabling and enabling of an acoustic beamformer JP2014045507A|2014-03-13|複数のマイクからの信号間で知的に選択することによって音質を改善すること US8112272B2|2012-02-07|Sound source separation device, speech recognition device, mobile telephone, sound source separation method, and program KR101470262B1|2014-12-05|다중-마이크로폰 위치 선택적 프로세싱을 위한 시스템들, 방법들, 장치, 및 컴퓨터 판독가능 매체 CN102197422B|2013-12-18|使用传感器阵列进行音频源接近度估计以用于减少噪音 JP4286637B2|2009-07-01|マイクロホン装置および再生装置 US8831936B2|2014-09-09|Systems, methods, apparatus, and computer program products for speech signal processing using spectral contrast enhancement JP3565226B2|2004-09-15|ノイズ低減システム、ノイズ低減装置及びこの装置を具える移動無線局 US8488803B2|2013-07-16|Wind suppression/replacement component for use with electronic systems US7817808B2|2010-10-19|Dual adaptive structure for speech enhancement
同族专利:
公开号 | 公开日 WO2009117471A1|2009-09-24| RU2456701C2|2012-07-20| US20090238377A1|2009-09-24| CA2705789C|2014-07-22| JP5313268B2|2013-10-09| EP2277323B1|2016-01-06| EP2277323A1|2011-01-26| TWI435318B|2014-04-21| BRPI0908557A2|2020-08-18| KR101258491B1|2013-04-26| US9113240B2|2015-08-18| TW200951942A|2009-12-16| KR20100116693A|2010-11-01| CN101911724A|2010-12-08| RU2010142270A|2012-04-27| CA2705789A1|2009-09-24|
引用文献:
公开号 | 申请日 | 公开日 | 申请人 | 专利标题 JPH09238394A|1996-03-01|1997-09-09|Fujitsu Ltd|指向性マイクロフォン装置| JP2003032779A|2001-07-17|2003-01-31|Sony Corp|音処理装置、音処理方法及び音処理プログラム| JP2008507926A|2004-07-22|2008-03-13|ソフトマックス,インク|雑音環境内で音声信号を分離するためのヘッドセット| JP2007060664A|2005-08-22|2007-03-08|Samsung Electronics Co Ltd|Ofdmシステム及びサンプリング周波数オフセットの推定方法| US20070257840A1|2006-05-02|2007-11-08|Song Wang|Enhancement techniques for blind source separation | JP2007325201A|2006-06-05|2007-12-13|Kddi Corp|音源分離法|JP2015505201A|2011-12-16|2015-02-16|クゥアルコム・インコーポレイテッドQualcomm Incorporated|アクセサリーデバイス中のスピーカーとマイクロフォンとの間の可変距離を動的に補償することによってオーディオ処理機能を最適化すること| JP2015114584A|2013-12-13|2015-06-22|日本電気株式会社|音声合成装置| JP2016177153A|2015-03-20|2016-10-06|日本電信電話株式会社|通信システム、通信方法、およびプログラム|RU2047946C1|1993-08-31|1995-11-10|Александр Павлович Молчанов|Способ адаптивной фильтрации речевых сигналов в слуховых аппаратах| US7283788B1|2000-07-26|2007-10-16|Posa John G|Remote microphone teleconferencing configurations| JP4815661B2|2000-08-24|2011-11-16|ソニー株式会社|信号処理装置及び信号処理方法| US7206418B2|2001-02-12|2007-04-17|Fortemedia, Inc.|Noise suppression for a wireless communication device| EP1253581B1|2001-04-27|2004-06-30|CSEM Centre Suisse d'Electronique et de Microtechnique S.A.|Method and system for speech enhancement in a noisy environment| US7139581B2|2002-05-02|2006-11-21|Aeroscout, Inc.|Method and system for distance measurement in a low or zero intermediate frequency half-duplex communications loop| RU59917U1|2004-10-21|2006-12-27|Открытое Акционерное Общество "ОКБ "Октава"|Радиогарнитура| US7343177B2|2005-05-03|2008-03-11|Broadcom Corporation|Modular ear-piece/microphone operable to service voice activated commands| KR100703703B1|2005-08-12|2007-04-06|삼성전자주식회사|음향 입출력 확장 방법 및 장치| CN1809105B|2006-01-13|2010-05-12|北京中星微电子有限公司|适用于小型移动通信设备的双麦克语音增强方法及系统| US20070242839A1|2006-04-13|2007-10-18|Stanley Kim|Remote wireless microphone system for a video camera| US7706821B2|2006-06-20|2010-04-27|Alon Konchitsky|Noise reduction system and method suitable for hands free communication devices| US7983428B2|2007-05-09|2011-07-19|Motorola Mobility, Inc.|Noise reduction on wireless headset input via dual channel calibration within mobile phone| US8175871B2|2007-09-28|2012-05-08|Qualcomm Incorporated|Apparatus and method of noise and echo reduction in multiple microphone audio systems| US8954324B2|2007-09-28|2015-02-10|Qualcomm Incorporated|Multiple microphone voice activity detector| US8411880B2|2008-01-29|2013-04-02|Qualcomm Incorporated|Sound quality by intelligently selecting between signals from a plurality of microphones| US8223988B2|2008-01-29|2012-07-17|Qualcomm Incorporated|Enhanced blind source separation algorithm for highly correlated mixtures|US7099821B2|2003-09-12|2006-08-29|Softmax, Inc.|Separation of target acoustic signals in a multi-transducer arrangement| US8949120B1|2006-05-25|2015-02-03|Audience, Inc.|Adaptive noise cancelation| US8184816B2|2008-03-18|2012-05-22|Qualcomm Incorporated|Systems and methods for detecting wind noise using multiple audio sources| US8812309B2|2008-03-18|2014-08-19|Qualcomm Incorporated|Methods and apparatus for suppressing ambient noise using multiple audio signals| US20090312075A1|2008-06-13|2009-12-17|Sony Ericsson Mobile Communications Ab|Method and apparatus for determining open or closed status of a mobile device| US8064619B2|2009-02-06|2011-11-22|Fortemedia, Inc.|Microphone and integrated circuit capible of echo cancellation| EP2355559B1|2010-02-05|2013-06-19|QNX Software Systems Limited|Enhanced spatialization system with satellite device| US8897455B2|2010-02-18|2014-11-25|Qualcomm Incorporated|Microphone array subset selection for robust noise reduction| US20110221607A1|2010-03-15|2011-09-15|Microsoft Corporation|Dynamic Device Adaptation Based on Proximity to Other Devices| US8831761B2|2010-06-02|2014-09-09|Sony Corporation|Method for determining a processed audio signal and a handheld device| US8774875B1|2010-10-20|2014-07-08|Sprint Communications Company L.P.|Spatial separation-enabled noise reduction| US9552840B2|2010-10-25|2017-01-24|Qualcomm Incorporated|Three-dimensional sound capturing and reproducing with multi-microphones| US9031256B2|2010-10-25|2015-05-12|Qualcomm Incorporated|Systems, methods, apparatus, and computer-readable media for orientation-sensitive recording control| US20130226593A1|2010-11-12|2013-08-29|Nokia Corporation|Audio processing apparatus| WO2012069020A1|2010-11-25|2012-05-31|歌尔声学股份有限公司|语音增强方法、装置及头戴式降噪通信耳机| WO2012080907A1|2010-12-15|2012-06-21|Koninklijke Philips Electronics N.V.|Noise reduction system with remote noise detector| CN102026058A|2010-12-29|2011-04-20|瑞声声学科技有限公司|线控耳机装置及其设计方法| US8525868B2|2011-01-13|2013-09-03|Qualcomm Incorporated|Variable beamforming with a mobile platform| US8989402B2|2011-01-19|2015-03-24|Broadcom Corporation|Use of sensors for noise suppression in a mobile communication device| WO2012107561A1|2011-02-10|2012-08-16|Dolby International Ab|Spatial adaptation in multi-microphone sound capture| US9354310B2|2011-03-03|2016-05-31|Qualcomm Incorporated|Systems, methods, apparatus, and computer-readable media for source localization using audible sound and ultrasound| US8811601B2|2011-04-04|2014-08-19|Qualcomm Incorporated|Integrated echo cancellation and noise suppression| US9313336B2|2011-07-21|2016-04-12|Nuance Communications, Inc.|Systems and methods for processing audio signals captured using microphones of multiple devices| US20130022189A1|2011-07-21|2013-01-24|Nuance Communications, Inc.|Systems and methods for receiving and processing audio signals captured using multiple devices| US20130044901A1|2011-08-16|2013-02-21|Fortemedia, Inc.|Microphone arrays and microphone array establishing methods| CN102368793B|2011-10-12|2014-03-19|惠州Tcl移动通信有限公司|手机及其通话信号处理方法| CN104205877B|2012-03-12|2017-09-26|索诺瓦股份公司|用于操作听力设备的方法以及听力设备| CN102711017A|2012-05-24|2012-10-03|华为软件技术有限公司|一种声音处理方法、装置及系统| US9641933B2|2012-06-18|2017-05-02|Jacob G. Appelbaum|Wired and wireless microphone arrays| CN102800323B|2012-06-25|2014-04-02|华为终端有限公司|移动终端语音降噪的方法及装置| US9438985B2|2012-09-28|2016-09-06|Apple Inc.|System and method of detecting a user's voice activity using an accelerometer| US9313572B2|2012-09-28|2016-04-12|Apple Inc.|System and method of detecting a user's voice activity using an accelerometer| CN103811013B|2012-11-07|2017-05-03|中国移动通信集团公司|噪声抑制方法、装置、电子设备和通信处理方法| US9833189B2|2012-12-17|2017-12-05|Koninklijke Philips N.V.|Sleep apnea diagnosis system and method of generating information using non-obtrusive audio analysis| US9888316B2|2013-03-21|2018-02-06|Nuance Communications, Inc.|System and method for identifying suboptimal microphone performance| US9900686B2|2013-05-02|2018-02-20|Nokia Technologies Oy|Mixing microphone signals based on distance between microphones| US9936290B2|2013-05-03|2018-04-03|Qualcomm Incorporated|Multi-channel echo cancellation and noise suppression| WO2014191798A1|2013-05-31|2014-12-04|Nokia Corporation|An audio scene apparatus| KR20140142149A|2013-06-03|2014-12-11|삼성전자주식회사|음성 향상 방법 및 그 장치| US9812150B2|2013-08-28|2017-11-07|Accusonus, Inc.|Methods and systems for improved signal decomposition| US9742573B2|2013-10-29|2017-08-22|Cisco Technology, Inc.|Method and apparatus for calibrating multiple microphones| US8719032B1|2013-12-11|2014-05-06|Jefferson Audio Video Systems, Inc.|Methods for presenting speech blocks from a plurality of audio input data streams to a user in an interface| US20150264505A1|2014-03-13|2015-09-17|Accusonus S.A.|Wireless exchange of data between devices in live events| US9510094B2|2014-04-09|2016-11-29|Apple Inc.|Noise estimation in a mobile device using an external acoustic microphone signal| US10477309B2|2014-04-16|2019-11-12|Sony Corporation|Sound field reproduction device, sound field reproduction method, and program| US10468036B2|2014-04-30|2019-11-05|Accusonus, Inc.|Methods and systems for processing and mixing signals using signal decomposition| WO2015179914A1|2014-05-29|2015-12-03|Wolfson Dynamic Hearing Pty Ltd|Microphone mixing for wind noise reduction| KR20160089145A|2015-01-19|2016-07-27|삼성전자주식회사|음성 인식 방법 및 음성 인식 장치| US9479547B1|2015-04-13|2016-10-25|RINGR, Inc.|Systems and methods for multi-party media management| KR20160143148A|2015-06-04|2016-12-14|삼성전자주식회사|전자 장치 및 전자 장치에서의 입출력 제어 방법| US9736578B2|2015-06-07|2017-08-15|Apple Inc.|Microphone-based orientation sensors and related techniques| US9947364B2|2015-09-16|2018-04-17|Google Llc|Enhancing audio using multiple recording devices| US9706300B2|2015-09-18|2017-07-11|Qualcomm Incorporated|Collaborative audio processing| US10013996B2|2015-09-18|2018-07-03|Qualcomm Incorporated|Collaborative audio processing| CN106558314A|2015-09-29|2017-04-05|广州酷狗计算机科技有限公司|一种混音处理方法和装置及设备| EP3365076A1|2015-10-23|2018-08-29|Scott Technologies, Inc.|Communication device and method for configuring the communication device| WO2017088909A1|2015-11-24|2017-06-01|Sonova Ag|Method of operating a hearing aid and hearing aid operating according to such method| US9773495B2|2016-01-25|2017-09-26|Ford Global Technologies, Llc|System and method for personalized sound isolation in vehicle audio zones| US10097939B2|2016-02-22|2018-10-09|Sonos, Inc.|Compensation for speaker nonlinearities| US9820039B2|2016-02-22|2017-11-14|Sonos, Inc.|Default playback devices| US10264030B2|2016-02-22|2019-04-16|Sonos, Inc.|Networked microphone device control| US10095470B2|2016-02-22|2018-10-09|Sonos, Inc.|Audio response playback| US10509626B2|2016-02-22|2019-12-17|Sonos, Inc|Handling of loss of pairing between networked devices| US9965247B2|2016-02-22|2018-05-08|Sonos, Inc.|Voice controlled media playback system based on user profile| US9947316B2|2016-02-22|2018-04-17|Sonos, Inc.|Voice control of a media playback system| US10149049B2|2016-05-13|2018-12-04|Bose Corporation|Processing speech from distributed microphones| US9905241B2|2016-06-03|2018-02-27|Nxp B.V.|Method and apparatus for voice communication using wireless earbuds| US10079027B2|2016-06-03|2018-09-18|Nxp B.V.|Sound signal detector| US9978390B2|2016-06-09|2018-05-22|Sonos, Inc.|Dynamic player selection for audio signal processing| US10152969B2|2016-07-15|2018-12-11|Sonos, Inc.|Voice detection by multiple devices| US10134399B2|2016-07-15|2018-11-20|Sonos, Inc.|Contextualization of voice inputs| US9693164B1|2016-08-05|2017-06-27|Sonos, Inc.|Determining direction of networked microphone device relative to audio playback device| US10115400B2|2016-08-05|2018-10-30|Sonos, Inc.|Multiple voice services| CN106448722B|2016-09-14|2019-01-18|讯飞智元信息科技有限公司|录音方法、装置和系统| US10375473B2|2016-09-20|2019-08-06|Vocollect, Inc.|Distributed environmental microphones to minimize noise during speech recognition| US9794720B1|2016-09-22|2017-10-17|Sonos, Inc.|Acoustic position measurement| CN106483502B|2016-09-23|2019-10-18|科大讯飞股份有限公司|一种声源定位方法及装置| US9942678B1|2016-09-27|2018-04-10|Sonos, Inc.|Audio playback settings for voice interaction| US9743204B1|2016-09-30|2017-08-22|Sonos, Inc.|Multi-orientation playback device microphones| US10652397B2|2016-10-07|2020-05-12|Samsung Electronics Co., Ltd.|Terminal device and method for performing call function| US10181323B2|2016-10-19|2019-01-15|Sonos, Inc.|Arbitration-based voice recognition| WO2018090343A1|2016-11-18|2018-05-24|北京小米移动软件有限公司|麦克风、音频处理的方法及装置| US10560774B2|2016-12-13|2020-02-11|Ov Loop, Inc.|Headset mode selection| CN107135443B|2017-03-29|2020-06-23|联想有限公司|一种信号处理方法及电子设备| US10475449B2|2017-08-07|2019-11-12|Sonos, Inc.|Wake-word detection suppression| US10313218B2|2017-08-11|2019-06-04|2236008 Ontario Inc.|Measuring and compensating for jitter on systems running latency-sensitive audio signal processing| US10706868B2|2017-09-06|2020-07-07|Realwear, Inc.|Multi-mode noise cancellation for voice detection| US10048930B1|2017-09-08|2018-08-14|Sonos, Inc.|Dynamic computation of system response volume| WO2019059939A1|2017-09-25|2019-03-28|Bose Corporation|Processing speech from distributed microphones| US10446165B2|2017-09-27|2019-10-15|Sonos, Inc.|Robust short-time fourier transform acoustic echo cancellation during audio playback| US10482868B2|2017-09-28|2019-11-19|Sonos, Inc.|Multi-channel acoustic echo cancellation| US10051366B1|2017-09-28|2018-08-14|Sonos, Inc.|Three-dimensional beam forming with a microphone array| US10621981B2|2017-09-28|2020-04-14|Sonos, Inc.|Tone interference cancellation| US10466962B2|2017-09-29|2019-11-05|Sonos, Inc.|Media playback system with voice assistance| US10818290B2|2017-12-11|2020-10-27|Sonos, Inc.|Home graph| US10339949B1|2017-12-19|2019-07-02|Apple Inc.|Multi-channel speech enhancement| CN110049403A|2018-01-17|2019-07-23|北京小鸟听听科技有限公司|一种基于场景识别的自适应音频控制装置和方法| US10665244B1|2018-03-22|2020-05-26|Pindrop Security, Inc.|Leveraging multiple audio channels for authentication| US10623403B1|2018-03-22|2020-04-14|Pindrop Security, Inc.|Leveraging multiple audio channels for authentication| US10681460B2|2018-06-28|2020-06-09|Sonos, Inc.|Systems and methods for associating playback devices with voice assistant services| US10461710B1|2018-08-28|2019-10-29|Sonos, Inc.|Media playback system with maximum volume setting| US10587430B1|2018-09-14|2020-03-10|Sonos, Inc.|Networked devices, systems, and methods for associating playback devices based on sound codes| US10811015B2|2018-09-25|2020-10-20|Sonos, Inc.|Voice detection optimization based on selected voice assistant service| US10692518B2|2018-09-29|2020-06-23|Sonos, Inc.|Linear filtering for noise-suppressed speech detection via multiple network microphone devices| RU2716556C1|2018-12-19|2020-03-12|Общество с ограниченной ответственностью "ПРОМОБОТ"|Способ приема речевых сигналов| US10602268B1|2018-12-20|2020-03-24|Sonos, Inc.|Optimization of network microphone devices using noise classification| US10586540B1|2019-06-12|2020-03-10|Sonos, Inc.|Network microphone device with command keyword conditioning|
法律状态:
2012-04-24| A977| Report on retrieval|Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120424 | 2012-05-09| A131| Notification of reasons for refusal|Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120508 | 2012-08-03| A521| Written amendment|Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120802 | 2013-02-27| A131| Notification of reasons for refusal|Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130226 | 2013-04-26| A521| Written amendment|Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130425 | 2013-05-30| TRDD| Decision of grant or rejection written| 2013-06-05| A01| Written decision to grant a patent or to grant a registration (utility model)|Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130604 | 2013-07-11| A61| First payment of annual fees (during grant procedure)|Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130703 | 2013-07-12| R150| Certificate of patent or registration of utility model|Free format text: JAPANESE INTERMEDIATE CODE: R150 | 2016-07-05| R250| Receipt of annual fees|Free format text: JAPANESE INTERMEDIATE CODE: R250 | 2017-07-11| R250| Receipt of annual fees|Free format text: JAPANESE INTERMEDIATE CODE: R250 | 2018-07-12| LAPS| Cancellation because of no payment of annual fees|
优先权:
[返回顶部]
申请号 | 申请日 | 专利标题 相关专利
Sulfonates, polymers, resist compositions and patterning process
Washing machine
Washing machine
Device for fixture finishing and tension adjusting of membrane
Structure for Equipping Band in a Plane Cathode Ray Tube
Process for preparation of 7 alpha-carboxyl 9, 11-epoxy steroids and intermediates useful therein an
国家/地区
|